Hiệp phương sai là gì? Các nghiên cứu khoa học về khái niệm này

Giới thiệu về hiệp phương sai

Hiệp phương sai (covariance) là một khái niệm trong thống kê mô tả cách hai biến ngẫu nhiên thay đổi cùng nhau như thế nào. Khi hai biến có xu hướng tăng hoặc giảm cùng nhau, giá trị của hiệp phương sai sẽ dương. Ngược lại, nếu một biến tăng trong khi biến còn lại giảm, thì hiệp phương sai sẽ mang giá trị âm. Đây là công cụ cơ bản để đánh giá mối quan hệ tuyến tính giữa hai đại lượng, từ đó giúp định hướng phân tích sâu hơn trong nhiều lĩnh vực như học máy, tài chính, kinh tế lượng hoặc vật lý thống kê.

Ví dụ đơn giản: nếu ta quan sát chiều cao và cân nặng của một nhóm người, khả năng cao hai biến này có hiệp phương sai dương, vì những người cao hơn thường cũng nặng hơn. Tuy nhiên, mức độ mạnh yếu của mối quan hệ đó chưa thể hiện rõ chỉ qua dấu của hiệp phương sai.

Không giống như phương sai – đo độ phân tán của một biến duy nhất – hiệp phương sai mở rộng khái niệm này cho hai biến, nhằm xác định mức độ phụ thuộc tuyến tính giữa chúng. Tuy nhiên, hiệp phương sai phụ thuộc vào đơn vị đo lường của hai biến, do đó giá trị tuyệt đối của nó không dễ diễn giải trừ khi các biến đã được chuẩn hóa.

Định nghĩa toán học

Trong thống kê lý thuyết, hiệp phương sai giữa hai biến ngẫu nhiên \( X \) và \( Y \) được định nghĩa là kỳ vọng của tích giữa độ lệch của mỗi biến so với trung bình của chính nó:

$\text{Cov}(X, Y) = \mathbb{E}[(X - \mathbb{E}[X])(Y - \mathbb{E}[Y])]$

Trong bối cảnh dữ liệu thực nghiệm, khi chỉ có một mẫu gồm \( n \) cặp dữ liệu quan sát được, ta sử dụng công thức ước lượng sau:

$\text{Cov}(X, Y) = \frac{1}{n - 1} \sum_{i=1}^{n} (x_i - \bar{x})(y_i - \bar{y})$

Trong đó:

• \( x_i, y_i \) là giá trị quan sát thứ \( i \) của hai biến.
• \( \bar{x}, \bar{y} \) là trung bình mẫu của từng biến.

Cách tính này giúp ta có một ước lượng không chệch của hiệp phương sai tổng thể khi mẫu được lấy ngẫu nhiên và độc lập. Nếu dùng mẫu toàn bộ dân số, mẫu số sẽ là \( n \) thay vì \( n - 1 \).

Để trực quan hơn, dưới đây là ví dụ về cách tính hiệp phương sai từ một bảng dữ liệu mẫu:

Tính trung bình \( \bar{x} = 4 \), \( \bar{y} = 6.33 \), sau đó áp dụng công thức hiệp phương sai mẫu:

$\text{Cov}(X,Y) = \frac{1}{2} \left[(2 - 4)(3 - 6.33) + (4 - 4)(7 - 6.33) + (6 - 4)(9 - 6.33)\right]$

Kết quả: hiệp phương sai dương, thể hiện mối quan hệ cùng chiều giữa X và Y.

Ý nghĩa của hiệp phương sai

Hiệp phương sai không chỉ phản ánh mối quan hệ tuyến tính giữa hai biến mà còn cho biết hướng thay đổi của chúng. Tuy nhiên, điều quan trọng là phải hiểu rằng giá trị hiệp phương sai không chuẩn hóa, nên khó đánh giá trực tiếp độ mạnh yếu của mối quan hệ.

Giải thích dấu của hiệp phương sai:

• Hiệp phương sai dương: Khi \( X \) tăng, \( Y \) có xu hướng tăng theo và ngược lại.
• Hiệp phương sai âm: Khi \( X \) tăng, \( Y \) có xu hướng giảm.
• Hiệp phương sai bằng 0: Không tồn tại mối quan hệ tuyến tính giữa hai biến (nhưng có thể vẫn tồn tại mối quan hệ phi tuyến).

Giá trị hiệp phương sai phụ thuộc trực tiếp vào đơn vị đo của dữ liệu. Do đó, nếu ta đo chiều cao bằng centimet và cân nặng bằng kilogram, giá trị hiệp phương sai sẽ khác nếu chuyển sang inch và pound. Điều này làm cho việc so sánh các hiệp phương sai giữa các cặp biến khác nhau trở nên khó khăn nếu không chuẩn hóa dữ liệu.

Vì lý do đó, trong thực tế, người ta thường kết hợp hiệp phương sai với các chỉ số khác để có cái nhìn toàn diện hơn về mối quan hệ giữa các biến.

So sánh với hệ số tương quan

Hệ số tương quan Pearson là biến thể chuẩn hóa của hiệp phương sai. Nó loại bỏ ảnh hưởng của đơn vị đo và giá trị tuyệt đối của độ biến thiên bằng cách chia cho tích độ lệch chuẩn của hai biến:

$\rho_{X,Y} = \frac{\text{Cov}(X, Y)}{\sigma_X \sigma_Y}$

Hệ số này luôn nằm trong khoảng từ -1 đến 1, với các ý nghĩa cụ thể:

• \( \rho = 1 \): Mối quan hệ tuyến tính hoàn hảo cùng chiều.
• \( \rho = -1 \): Mối quan hệ tuyến tính hoàn hảo ngược chiều.
• \( \rho = 0 \): Không có mối quan hệ tuyến tính.

Hệ số tương quan có thể so sánh được giữa các cặp biến khác nhau nhờ tính chuẩn hóa. Đây là lý do tại sao trong phân tích dữ liệu, người ta thường sử dụng cả hiệp phương sai và hệ số tương quan để phân tích mối quan hệ giữa các biến.

Tham khảo thêm về sự khác biệt và mối liên hệ giữa hai khái niệm này tại Corporate Finance Institute - Covariance vs. Correlation.

Ma trận hiệp phương sai

Khi làm việc với nhiều biến ngẫu nhiên, việc tính toán hiệp phương sai cho từng cặp riêng lẻ là không thực tế. Thay vào đó, ta sử dụng một cấu trúc gọi là ma trận hiệp phương sai (covariance matrix) – một ma trận vuông trong đó mỗi phần tử đại diện cho hiệp phương sai giữa hai biến cụ thể. Đây là công cụ trung tâm trong thống kê đa biến, giúp mô hình hóa sự liên kết giữa các biến trong không gian nhiều chiều.

Giả sử ta có một tập dữ liệu gồm \( p \) biến \( X_1, X_2, ..., X_p \). Khi đó, ma trận hiệp phương sai \( \Sigma \) được biểu diễn như sau:

$\Sigma = \begin{bmatrix} \text{Var}(X_1) & \text{Cov}(X_1, X_2) & \cdots & \text{Cov}(X_1, X_p) \\ \text{Cov}(X_2, X_1) & \text{Var}(X_2) & \cdots & \text{Cov}(X_2, X_p) \\ \vdots & \vdots & \ddots & \vdots \\ \text{Cov}(X_p, X_1) & \text{Cov}(X_p, X_2) & \cdots & \text{Var}(X_p) \end{bmatrix}$

Một số đặc điểm của ma trận hiệp phương sai:

• Ma trận luôn đối xứng vì \( \text{Cov}(X_i, X_j) = \text{Cov}(X_j, X_i) \).
• Các phần tử trên đường chéo chính là phương sai của từng biến.
• Ma trận này thường là dương bán xác định (positive semi-definite).

Trong ứng dụng thực tế, ma trận hiệp phương sai là đầu vào thiết yếu của các thuật toán như Phân tích Thành phần Chính (PCA), hồi quy tuyến tính đa biến, hoặc mô hình Gaussian đa chiều.

Ứng dụng trong học máy

Hiệp phương sai có vai trò nền tảng trong nhiều thuật toán học máy. Một ví dụ điển hình là phân tích thành phần chính (PCA – Principal Component Analysis), phương pháp giảm chiều dữ liệu dựa vào việc phân tích ma trận hiệp phương sai để tìm các chiều phương sai lớn nhất.

PCA hoạt động bằng cách tính toán các vector riêng (eigenvectors) và giá trị riêng (eigenvalues) của ma trận hiệp phương sai của tập dữ liệu. Những vector riêng tương ứng với giá trị riêng lớn nhất sẽ xác định hướng chính của sự biến thiên – các thành phần chính – trong tập dữ liệu. Việc này giúp nén dữ liệu hiệu quả mà vẫn giữ được thông tin quan trọng nhất.

Ứng dụng PCA và hiệp phương sai trong học máy có thể kể đến:

• Giảm chiều trong xử lý ảnh, nhận dạng khuôn mặt.
• Tiền xử lý dữ liệu trước khi huấn luyện mô hình học có giám sát.
• Phân tích cụm (clustering) và trực quan hóa dữ liệu cao chiều.

Tài liệu hướng dẫn chi tiết có thể xem tại Scikit-learn - PCA Module.

Ứng dụng trong tài chính

Trong lĩnh vực tài chính định lượng, hiệp phương sai là công cụ cốt lõi trong quản lý rủi ro và tối ưu hóa danh mục đầu tư. Theo Lý thuyết Danh mục Hiện đại (Modern Portfolio Theory) của Harry Markowitz, sự biến động tổng thể của danh mục không chỉ phụ thuộc vào phương sai của từng tài sản, mà còn vào hiệp phương sai giữa các tài sản đó.

Hiệp phương sai giúp xác định mức độ phân tán chung của các tài sản:

• Hiệp phương sai dương cao: Các tài sản biến động cùng chiều, làm tăng rủi ro danh mục.
• Hiệp phương sai âm: Các tài sản có xu hướng bù trừ cho nhau, giúp giảm rủi ro tổng thể.

Ví dụ, một danh mục gồm cổ phiếu và trái phiếu thường có hiệp phương sai âm do thị trường cổ phiếu và thị trường nợ thường di chuyển ngược chiều trong các chu kỳ kinh tế. Việc lựa chọn các tài sản có tương quan thấp hoặc âm giúp xây dựng danh mục có độ ổn định cao hơn.

Một số ứng dụng cụ thể:

Chi tiết về ứng dụng trong đầu tư có thể xem thêm tại CFA Institute - Modern Portfolio Theory.

Hạn chế của hiệp phương sai

Dù hiệp phương sai là công cụ mạnh mẽ, nó vẫn có những hạn chế đáng lưu ý. Trước hết, giá trị hiệp phương sai bị ảnh hưởng bởi đơn vị đo lường của dữ liệu. Điều này khiến cho việc so sánh giá trị hiệp phương sai giữa các cặp biến khác nhau trở nên thiếu tin cậy nếu không được chuẩn hóa.

Thứ hai, hiệp phương sai chỉ đo lường quan hệ tuyến tính. Do đó, nếu hai biến có mối quan hệ phi tuyến (chẳng hạn dạng parabol), giá trị hiệp phương sai có thể gần bằng 0 dù mối liên kết thực sự là rất mạnh. Điều này dễ gây hiểu lầm nếu chỉ dựa vào một chỉ số duy nhất.

Ngoài ra, hiệp phương sai rất nhạy với ngoại lệ (outliers). Một vài giá trị cực đoan có thể làm sai lệch toàn bộ kết quả ước lượng. Trong các trường hợp như vậy, các phương pháp như tương quan Spearman hoặc các chỉ số dựa trên phân vị sẽ đáng tin cậy hơn.

Hiệp phương sai trong dữ liệu thực

Khi áp dụng vào dữ liệu thực, hiệp phương sai thường được tính toán như một bước trong phân tích sơ bộ để đánh giá mối quan hệ giữa các biến. Tuy nhiên, cần thận trọng trong khâu tiền xử lý dữ liệu, bao gồm:

• Kiểm tra và loại bỏ ngoại lệ.
• Chuẩn hóa dữ liệu nếu các biến có đơn vị đo khác nhau.
• Kiểm tra giả định phân phối chuẩn (nếu dùng trong mô hình thống kê cổ điển).

Việc sử dụng hiệp phương sai không nên tách rời khỏi bối cảnh dữ liệu. Ví dụ, trong các bộ dữ liệu tài chính với tần suất cao (high-frequency trading), biến động lớn trong ngắn hạn có thể tạo ra giá trị hiệp phương sai cao nhưng không phản ánh xu hướng dài hạn.

Một ví dụ điển hình là việc phân tích thị trường chứng khoán: nếu tính hiệp phương sai giữa chỉ số S&P 500 và lợi nhuận một cổ phiếu công nghệ trong năm 2022, ta có thể phát hiện mức độ nhạy cảm của cổ phiếu đó với biến động thị trường nói chung.

Kết luận

Hiệp phương sai là công cụ thống kê quan trọng dùng để đo lường sự thay đổi cùng nhau của hai biến. Từ biểu thức đơn giản trong toán học, nó mở rộng thành ma trận hiệp phương sai trong phân tích dữ liệu nhiều chiều, phục vụ các ứng dụng thực tiễn trong học máy và tài chính.

Tuy nhiên, cần sử dụng hiệp phương sai một cách có phán đoán, đi kèm các công cụ phân tích khác để đánh giá đầy đủ mối quan hệ giữa các biến, tránh hiểu nhầm do đơn vị đo hoặc ảnh hưởng của các ngoại lệ.